Редактирането на изображения Grok AI на Илон Мъск е ограничено до платени потребители на X след deepfakes

Платформата X на Илон Мъск ограничи редактирането на изображения със своя AI инструмент Grok до консуматори, които заплащат, откакто попадна под рецензия, че разрешава на хората да вършат полови изображения deepfakes.

Има забележителна противоположна реакция, откакто чатботът почете претенции от консуматори за цифрова смяна на изображения на други хора, като ги съблича без тяхно единодушие.

Но Grok в този момент споделя на хората, които желаят от него да прави такива материали, които единствено за платени клиенти ще могат да го създадат – което значи, че името им и информацията за заплащане би трябвало да бъдат записани.

BBC се обърна към X за коментар.

Онези, които не са се абонирали, към момента могат да употребяват Grok за редактиране на изображения в неговото настрана приложение и уеб страница.

" Мъск е изхвърлил играчките си от количката в символ на митинг, че е държан виновен за цунамито от малтретиране ", сподели професор Клеър МакГлин, специалист по правното контролиране на порнографията, половото принуждение и онлайн малтретирането.

" Вместо това за предприемане на виновни стъпки, с цел да се подсигурява, че Grok не може да бъде употребен за корист, той отдръпна достъпа за голямото болшинство от потребителите. "

Това идва, откакто държавното управление прикани регулатора Ofcom да употребява всичките си пълномощия – до и в това число ефикасна възбрана – против X заради опасения по отношение на противозаконни AI изображения, основани на уеб страницата.

В отговор на опасенията, че сексуализирани изображения на възрастни и деца са били генерирани от Grok, министър-председателят сър Кийр Стармър сподели, че това е „ позорно “ и „ непоносимо “.

Той сподели, че Ofcom има „ цялостната поддръжка “ на държавното управление да предприеме дейности по наличието.

" Това е нелегално. Няма да го толерираме. Поисках всички благоприятни условия да бъдат прегледани ", сподели той в изявление за Greatest Hits Radio.

Правителствени източници споделиха на BBC News: " Бихме очаквали Ofcom да употребява всичките си пълномощия предписание във връзка с Grok и X. "

Правомощията на Ofcom според Закона за онлайн сигурността включват опцията да търси правосъдна заповед, с цел да попречи на трети страни да оказват помощ на притежаваната от Илон Мъск платформа да набира пари или да бъде налична в Обединеното кралство.

BBC се обърна регулатора за коментар.

„ Абонирайте се за отключване “

Grok е безвъзмезден инструмент, който потребителите могат да маркират непосредствено в изявления или отговори под изявления на други консуматори, с цел да изискат съответен отговор.

Но функционалността също по този начин разреши на хората да изискат от нея редактиране на изображения - и да я помолят да съблече цифрово хората от множеството им облекла.

Grok е извършил доста поръчки на консуматори, искащи от него да редактира изображения на дами, с цел да ги покаже по бикини или малко облекла - нещо, което тези, които са обект на такива претенции, споделиха на BBC, ги кара да се усещат " унизени " и " dehumanised ".

Въпреки това от петък сутринта Grok сподели на потребителите, които желаят от него да трансформира изображения, качени в X, че " генерирането и редактирането на изображения сега са лимитирани до плащащи клиенти ".

Добавя, че потребителите " могат да се абонират, с цел да отключат тези функционалности ".

Някои изявления в платформата, забелязани от BBC News, допускат, че единствено тези със синя отметка „ доказано “ - извънредно за платеното абонатно равнище на X - са съумели сполучливо да изискат редакции на изображения на Grok.

Проф Макглин сподели, че ходът повтори метода на X към порнографските дълбоки подправени имитации на Тейлър Суифт в платформата предходната година – където блокира търсенията за сексуализиран материал, генериран от попзвездата благодарение на функционалност за видео Grok AI.

„ Той прави това, с цел да подклажда причини за свободата на словото “, добави тя.

" Той ще твърди, че регулациите задушават потреблението на тази технология от хората. Но всичко, което регулациите изискват, е той да вземе нужните защитни ограничения за понижаване на вредите. "